Jakarta (KABARIN) - Platform media sosial X baru-baru ini mengumumkan perubahan aturan untuk fitur pengeditan gambar pada chatbot AI mereka, Grok, dengan melarang pembuatan atau penyuntingan foto orang yang memakai pakaian terbuka seperti bikini.
Pembatasan ini berlaku untuk semua pengguna, baik yang berlangganan maupun tidak, setelah X mendapat kritik terkait kemungkinan pembuatan gambar bernuansa seksual tanpa izin, termasuk yang melibatkan anak-anak.
Melalui akun resmi @Safety, X menyatakan bahwa kini hanya pengguna berbayar yang bisa mengakses fitur pembuatan gambar Grok, sementara akun gratis tidak lagi bisa menggunakannya. Selain itu, Grok diblokir membuat gambar orang dengan busana terbuka di negara-negara yang melarang konten semacam itu secara hukum.
Pengumuman ini datang tak lama setelah California membuka penyelidikan terhadap xAI dan Grok terkait konten AI yang memuat pornografi dan eksploitasi anak. Data awal menunjukkan sekitar setengah dari 20.000 gambar yang dihasilkan xAI antara Natal 2025 dan Tahun Baru 2026 menampilkan orang berpakaian minim, termasuk sebagian terlihat seperti anak-anak.
X menegaskan akan menindak tegas eksploitasi anak dan aktif menghapus konten bermasalah, termasuk pelecehan seksual anak dan gambar seksual tanpa izin. CEO xAI, Elon Musk, menyebut sebelumnya ia tidak mengetahui adanya gambar anak tidak senonoh yang dibuat Grok.
Ia menambahkan, saat pengaturan pembatasan konten diaktifkan, Grok hanya diperbolehkan menampilkan ketelanjangan bagian atas karakter manusia dewasa fiktif, mirip seperti yang biasa muncul di film berklasifikasi dewasa. Namun, kebijakan ini tidak diterapkan seragam di seluruh dunia dan akan disesuaikan dengan hukum tiap negara.
Beberapa negara sudah memberlakukan pembatasan, misalnya Malaysia dan Indonesia memblokir Grok karena kekhawatiran soal keamanan dan konten seksual AI. Di Inggris, Ofcom juga membuka penyelidikan dan siap mendukung pemblokiran serupa jika diperlukan.
Editor: M. Hilal Eka Saputra Harahap
Copyright © KABARIN 2026